Zeiss khởi đầu cuộc sống tại Đức trước thời kỳ đế quốc nơi mà ông đã học tại một trường tiểu học, và học nghề với tiến sĩ Friedrich Körner, một thợ cơ khí và nhà cung cấp cho phiên toàn. Một thời gian sau ông tham dự những bài giảng về toán học, vật lý thực nghiệm, nhân chủng học, khoáng vật học và quang học tại Đại học Jena. Bảy năm sau ông mở một xưởng nhỏ và gần như không có bất kỳ dụng cụ nào. Ông đã làm nhiều thấu kính nhưng ít được người khác biết đến cho tới năm 1847 khi ông thuê người học việc thứ hai và thứ ba.